基本名詞及觀念:
• Experiment:一次實驗,如尋找最好的神經網路架構。經多個autoML + trials構成。
• Search Space:所謂Space,是指某個定義的範圍。如超參範圍。
• Configuration:定義trial所需的參數,可含超參。
• Trial:獨立測試,基於某個Configuration,來進行一次測試。
• Tuner:內含autoML算法,可以為下一次的Trial,產生新的Configuration。
• Assessor:分析Trial的中間結果,來確認Trial是否該提前終止。
• Training Platform:Trial真正執行處,如本機、遠端伺服器、叢集器等。
NNI的高層次架構如下圖: